1
토큰화 및 시퀀스
에보클래스-아이004강의 4
0
🤖
삐빅! 환영합니다, 후보군! 아래 하위 주제를 선택해 인공지능이 토큰화를 통해 어떻게 "읽는지"를 알아보세요.
파이봇 명령라이브
삐빅!안녕하세요, 후보군! 인공지능이 읽는 법을 가르치기 위해, 먼저 단어들을 작은 "레고" 조각처럼 자르는 작업부터 시작해야 합니다. 컴퓨터가 단어를 숫자로 바꾸는 방법을 배우고 싶으신가요?
주제 진행 상황0%
훌륭한 선택입니다! 토큰은 레고 블록과 같습니다. "친구관계" 같은 단어는 "친구"와 "선박"과 같이 더 작은 조각으로 나뉩니다. 간단한 "." 역시 토큰입니다! 인공지능에게는 전체 긴 문장보다 이 조각들이 다루기 더 쉽습니다.
1
하위 주제 1
토큰이란 무엇인가요?
"친구"와 "선박"과 같은 작은 구성 요소로 텍스트를 자르는 것
이것을 보세요! 토큰을 얻으면 인공지능은 각각에 비밀 식별 번호를 부여합니다. 이러한 숫자들이 "시퀀스"를 형성합니다. 기억하세요: 순서가 중요합니다! "개가 사람을 물었다"와 "사람이 개를 물었다"는 동일한 블록을 사용하지만, 시퀀스는 전혀 다른 이야기를 전달합니다!
2
하위 주제 2
시퀀스의 힘
순서가 모든 것을 결정하는 수학적 리스트로 블록을 변환하는 것
알고 계셨나요? 인공지능에는 "컨텍스트 창"이 있는데, 마치 손 크기와 같습니다. 처음 부분을 잊기 시작하기 전까지는 일정 수의 토큰만 "머릿속"에 담을 수 있습니다!
알고 계셨나요?
인공지능에는 "컨텍스트 창"이 있는데, 마치 손 크기와 같습니다. 처음 부분을 잊기 시작하기 전까지는 일정 수의 토큰만 "머릿속"에 담을 수 있습니다!
로딩 중...
⭐⭐⭐
미션 완료!
당신은 토큰 마스터입니다!